Sintetinė medija: naršymas giluminių klastočių aptikimo pasaulyje

Sintetinė medija, ypač giluminės klastotės (angl. deepfakes), tapo galinga ir sparčiai besivystančia technologija, galinčia sukelti perversmą įvairiuose sektoriuose – nuo pramogų ir švietimo iki verslo ir komunikacijos. Tačiau ji taip pat kelia didelę riziką, įskaitant dezinformacijos plitimą, žalą reputacijai ir pasitikėjimo medija menkinimą. Suprasti, kas yra giluminės klastotės ir kokie yra jų aptikimo metodai, yra labai svarbu asmenims, organizacijoms ir vyriausybėms visame pasaulyje.

Kas yra sintetinė medija ir giluminės klastotės?

Sintetinė medija – tai medija, kurią visiškai ar iš dalies sugeneravo arba modifikavo dirbtinis intelektas (DI). Tai apima vaizdus, vaizdo įrašus, garsą ir tekstą, sukurtus naudojant DI algoritmus. Giluminės klastotės, sintetinių medijų porūšis, yra DI sugeneruota medija, kuri įtikinamai vaizduoja asmenį, darantį ar sakantį tai, ko jis niekada nedarė. Terminas „deepfake“ kilo iš „giluminio mokymosi“ (angl. deep learning) metodų, naudojamų joms kurti, ir polinkio kurti suklastotą turinį.

Giluminių klastočių technologija remiasi sudėtingais mašininio mokymosi algoritmais, ypač giliaisiais neuroniniais tinklais. Šie tinklai yra apmokomi naudojant didžiulius vaizdų, vaizdo įrašų ir garso duomenų rinkinius, kad išmoktų atpažinti dėsningumus ir generuoti realistišką sintetinį turinį. Procesas paprastai apima:

• Duomenų rinkimas: Didelio kiekio duomenų, pavyzdžiui, tikslinio asmens nuotraukų ir vaizdo įrašų, rinkimas.
• Apmokymas: Giliųjų neuroninių tinklų apmokymas, kad jie išmoktų tikslinio asmens veido bruožų, balso ir manierų.
• Generavimas: Apmokytų tinklų naudojimas naujam sintetiniam turiniui generuoti, pavyzdžiui, vaizdo įrašams, kuriuose tikslinis asmuo sako ar daro tai, ko iš tikrųjų niekada nedarė.
• Tobulinimas: Sugeneruoto turinio tobulinimas siekiant pagerinti jo realistiškumą ir įtikinamumą.

Nors giluminės klastotės gali būti naudojamos ir geriems tikslams, pavyzdžiui, kuriant specialiuosius efektus filmuose ar generuojant asmeninius avatarus, jos taip pat gali būti panaudotos ir piktavališkiems tikslams, pavyzdžiui, kuriant melagingas naujienas, skleidžiant propagandą ar apsimetant kitais asmenimis.

Didėjanti giluminių klastočių grėsmė

Giluminių klastočių plitimas kelia vis didesnę grėsmę asmenims, organizacijoms ir visai visuomenei. Keletas pagrindinių su giluminėmis klastotėmis susijusių rizikų:

• Klaidinanti informacija ir dezinformacija: Giluminės klastotės gali būti naudojamos kuriant melagingas naujienas ir propagandą, kuri gali paveikti viešąją nuomonę ir pakenkti pasitikėjimui institucijomis. Pavyzdžiui, suklastotas vaizdo įrašas, kuriame politikas daro melagingus pareiškimus, gali būti panaudotas siekiant paveikti rinkimų rezultatus.
• Žala reputacijai: Giluminėmis klastotėmis galima pakenkti asmenų ir organizacijų reputacijai. Pavyzdžiui, suklastotas vaizdo įrašas, kuriame generalinis direktorius elgiasi neetiškai, gali pakenkti įmonės prekės ženklui.
• Finansinis sukčiavimas: Giluminės klastotės gali būti naudojamos apsimetant asmenimis ir vykdant finansinį sukčiavimą. Pavyzdžiui, suklastotas garso įrašas, kuriame generalinis direktorius nurodo pavaldiniui pervesti lėšas į apgaulingą sąskaitą, gali sukelti didelių finansinių nuostolių.
• Pasitikėjimo erozija: Didėjantis giluminių klastočių paplitimas gali sumažinti pasitikėjimą medija ir apsunkinti tikro bei suklastoto turinio atskyrimą. Tai gali turėti destabilizuojantį poveikį visuomenei ir palengvinti piktavalių veikėjų dezinformacijos sklaidą.
• Politinė manipuliacija: Giluminės klastotės yra įrankiai, kuriais galima kištis į rinkimus ir destabilizuoti vyriausybes. Giluminių klastočių turinio platinimas prieš pat rinkimus gali paveikti rinkėjus ir pakeisti politinių įvykių eigą.

Pasaulinis giluminių klastočių poveikis yra plataus masto, apimantis viską – nuo politikos ir verslo iki asmeninių santykių ir socialinio pasitikėjimo. Todėl veiksmingi giluminių klastočių aptikimo metodai yra ypač svarbūs.

Giluminių klastočių aptikimo metodai: išsami apžvalga

Aptikti gilumines klastotes yra sudėtinga užduotis, nes technologija nuolat tobulėja, o klastotės tampa vis realistiškesnės. Tačiau mokslininkai ir kūrėjai sukūrė įvairių giluminių klastočių aptikimo metodų, kuriuos galima plačiai suskirstyti į du pagrindinius būdus: DI paremti metodai ir žmogaus analizės metodai. DI paremtuose metoduose yra keletas subkategorijų.

DI paremti giluminių klastočių aptikimo metodai

DI paremti metodai naudoja mašininio mokymosi algoritmus medijos turiniui analizuoti ir nustatyti dėsningumus, rodančius gilumines klastotes. Šiuos metodus galima toliau skirstyti į kelias kategorijas:

1. Veido išraiškų analizė

Giluminėse klastotėse dažnai pasitaiko subtilių veido išraiškų ir judesių neatitikimų, kuriuos gali aptikti DI algoritmai. Šie algoritmai analizuoja veido orientyrus, tokius kaip akys, burna ir nosis, siekdami nustatyti jų judesių ir išraiškų anomalijas. Pavyzdžiui, suklastotame vaizdo įraše gali būti matyti nenatūraliai judanti asmens burna arba normalaus dažnio neatitinkantis mirksėjimas.

Pavyzdys: Mikroišraiškų, kurių šaltinio aktorius nedemonstruoja, bet kurios dažnai pasireiškia tiksliniame asmenyje, analizė.

2. Artefaktų aptikimas

Giluminėse klastotėse dažnai yra subtilių artefaktų ar netobulumų, atsirandančių generavimo proceso metu. Šiuos artefaktus gali aptikti DI algoritmai, kurie yra apmokyti identifikuoti dėsningumus, paprastai neaptinkamus tikroje medijoje. Artefaktų pavyzdžiai:

• Suliejimas: Giluminėse klastotėse dažnai pastebimas suliejimas aplink veido ar kitų objektų kraštus.
• Spalvų neatitikimai: Giluminėse klastotėse gali būti spalvų ir apšvietimo neatitikimų.
• Pikselizacija: Giluminėse klastotėse gali pasireikšti pikselizacija, ypač tose srityse, kurios buvo stipriai manipuliuotos.
• Laikiniai neatitikimai: Mirksėjimo dažnis arba lūpų sinchronizavimo problemos.

Pavyzdys: Suspaudimo artefaktų, kurie neatitinka kitų vaizdo įrašo dalių arba yra skirtingos raiškos, tyrimas.

3. Fiziologinių signalų analizė

Šis metodas analizuoja fiziologinius signalus, tokius kaip širdies ritmas ir odos laidumo reakcija, kuriuos dažnai sunku atkartoti giluminėse klastotėse. Giluminėse klastotėse paprastai trūksta subtilių fiziologinių požymių, būdingų tikriems vaizdo įrašams, pavyzdžiui, odos atspalvio pokyčių dėl kraujotakos ar subtilių raumenų judesių.

Pavyzdys: Kraujotakos dėsningumų neatitikimų veide, kuriuos sunku suklastoti, aptikimas.

4. Akių mirksėjimo dažnio analizė

Žmonės mirksi gana pastoviu dažniu. Giluminėse klastotėse dažnai nepavyksta tiksliai atkartoti šio natūralaus mirksėjimo elgesio. DI algoritmai gali analizuoti mirksnių dažnį ir trukmę, kad nustatytų anomalijas, rodančias, jog vaizdo įrašas yra suklastotas.

Pavyzdys: Analizė, ar asmuo apskritai mirksi, arba ar dažnis gerokai viršija numatomą diapazoną.

5. Lūpų sinchronizavimo analizė

Šis metodas analizuoja garso ir vaizdo sinchronizaciją giluminėje klastotėje, siekiant aptikti neatitikimus. Giluminėse klastotėse dažnai pasitaiko subtilių laiko neatitikimų tarp lūpų judesių ir tariamų žodžių. DI algoritmai gali analizuoti garso ir vaizdo signalus, kad nustatytų šiuos neatitikimus.

Pavyzdys: Ištartų fonemų palyginimas su vizualiais lūpų judesiais, siekiant patikrinti, ar jie sutampa.

6. Giliojo mokymosi modeliai

Giluminių klastočių aptikimui buvo sukurti keli giliojo mokymosi modeliai. Šie modeliai yra apmokomi naudojant didelius tikros ir suklastotos medijos duomenų rinkinius ir geba nustatyti subtilius dėsningumus, rodančius gilumines klastotes. Keletas populiariausių giliojo mokymosi modelių giluminių klastočių aptikimui:

• Konvoliuciniai neuroniniai tinklai (CNN): CNN yra neuroninių tinklų tipas, ypač tinkamas vaizdų ir vaizdo įrašų analizei. Jie gali būti apmokyti nustatyti vaizdų ir vaizdo įrašų dėsningumus, rodančius gilumines klastotes.
• Rekurentiniai neuroniniai tinklai (RNN): RNN yra neuroninių tinklų tipas, tinkamas nuosekliems duomenims, pavyzdžiui, vaizdo įrašams, analizuoti. Jie gali būti apmokyti nustatyti laikinius neatitikimus giluminėse klastotėse.
• Generatyviniai priešiški tinklai (GAN): GAN yra neuroninių tinklų tipas, kuris gali būti naudojamas realistiškai sintetinei medijai generuoti. Jie taip pat gali būti naudojami giluminėms klastotėms aptikti, nustatant dėsningumus, kurie paprastai nerandami tikroje medijoje.

Pavyzdys: CNN naudojimas veido iškraipymams ar pikselizacijai vaizdo įraše nustatyti.

Žmogaus analizės metodai giluminių klastočių aptikimui

Nors DI paremti metodai tampa vis sudėtingesni, žmogaus analizė vis dar atlieka svarbų vaidmenį giluminių klastočių aptikime. Žmogaus ekspertai dažnai gali nustatyti subtilius neatitikimus ir anomalijas, kurių nepastebi DI algoritmai. Žmogaus analizės metodai paprastai apima:

• Vizualinė apžiūra: Atidus medijos turinio nagrinėjimas ieškant bet kokių vizualinių neatitikimų ar anomalijų.
• Garso analizė: Garso turinio analizė ieškant bet kokių neatitikimų ar anomalijų.
• Konteksto analizė: Konteksto, kuriame pateikiamas medijos turinys, vertinimas, siekiant nustatyti, ar jis tikėtinai yra autentiškas.
• Šaltinio patikrinimas: Medijos turinio šaltinio patikrinimas, siekiant nustatyti, ar jis yra patikimas.

Analitikai gali ieškoti neatitikimų apšvietime, šešėliuose ir atspindžiuose, taip pat nenatūralių judesių ar išraiškų. Jie taip pat gali analizuoti garsą ieškodami iškraipymų ar neatitikimų. Galiausiai, jie gali įvertinti kontekstą, kuriame pateikiamas medijos turinys, siekdami nustatyti, ar jis tikėtinai yra autentiškas.

Pavyzdys: Žurnalistas pastebi, kad fonas vaizdo įraše neatitinka nurodytos vietos.

DI ir žmogaus analizės derinimas

Efektyviausias giluminių klastočių aptikimo būdas dažnai apima DI paremtų metodų ir žmogaus analizės derinimą. DI paremti metodai gali būti naudojami greitai peržiūrėti didelius medijos turinio kiekius ir nustatyti galimas gilumines klastotes. Tada analitikai gali peržiūrėti pažymėtą turinį, kad nustatytų, ar tai tikrai yra giluminė klastotė.

Šis hibridinis požiūris leidžia efektyviau ir tiksliau aptikti gilumines klastotes. DI paremti metodai gali atlikti pradinį patikrinimą, o analitikai gali pateikti kritinį vertinimą, reikalingą tiksliems sprendimams priimti. Tobulėjant giluminių klastočių technologijai, DI ir žmogaus analizės privalumų derinimas bus labai svarbus siekiant aplenkti piktavalius veikėjus.

Praktiniai žingsniai giluminių klastočių aptikimui

Štai keletas praktinių žingsnių, kurių gali imtis asmenys, organizacijos ir vyriausybės, siekdami aptikti gilumines klastotes:

Asmenims:

• Būkite skeptiški: Vertinkite visą medijos turinį su sveika skepticizmo doze, ypač turinį, kuris atrodo per geras, kad būtų tiesa, arba sukelia stiprias emocijas.
• Ieškokite neatitikimų: Atkreipkite dėmesį į bet kokius vizualinius ar garso neatitikimus, pavyzdžiui, nenatūralius judesius, pikselizaciją ar garso iškraipymus.
• Patikrinkite šaltinį: Patikrinkite medijos turinio šaltinį, kad nustatytumėte, ar jis yra patikimas.
• Naudokitės faktų tikrinimo ištekliais: Kreipkitės į patikimas faktų tikrinimo organizacijas, kad sužinotumėte, ar medijos turinys buvo patikrintas. Tarp tarptautinių faktų tikrinimo organizacijų yra Tarptautinis faktų tikrinimo tinklas (IFCN) ir vietos faktų tikrinimo iniciatyvos įvairiose šalyse.
• Naudokite giluminių klastočių aptikimo įrankius: Naudokitės prieinamais giluminių klastočių aptikimo įrankiais, kad analizuotumėte medijos turinį ir nustatytumėte galimas gilumines klastotes.
• Švieskitės: Sekite naujausią informaciją apie giluminių klastočių metodus ir aptikimo būdus. Kuo daugiau žinosite apie gilumines klastotes, tuo geriau būsite pasirengę jas atpažinti.

Organizacijoms:

• Įdiekite giluminių klastočių aptikimo technologijas: Investuokite ir įdiekite giluminių klastočių aptikimo technologijas, kad stebėtumėte medijos turinį ir nustatytumėte galimas gilumines klastotes.
• Mokykite darbuotojus: Mokykite darbuotojus atpažinti ir pranešti apie gilumines klastotes.
• Sukurkite reagavimo planus: Sukurkite reagavimo planus, kaip elgtis su giluminėmis klastotėmis, įskaitant medijos turinio tikrinimo, bendravimo su visuomene ir teisinių veiksmų ėmimosi procedūras.
• Bendradarbiaukite su ekspertais: Bendradarbiaukite su giluminių klastočių aptikimo ir kibernetinio saugumo ekspertais, kad neatsiliktumėte nuo naujausių grėsmių.
• Stebėkite socialinę mediją: Stebėkite socialinės medijos kanalus ieškodami savo organizacijos paminėjimų ir galimų giluminių klastočių.
• Naudokite vandens ženklus ir autentifikavimo metodus: Įdiekite vandens ženklus ir kitus autentifikavimo metodus, kad padėtumėte patvirtinti savo medijos turinio autentiškumą.

Vyriausybėms:

• Investuokite į mokslinius tyrimus ir plėtrą: Investuokite į giluminių klastočių aptikimo technologijų mokslinius tyrimus ir plėtrą.
• Kurkite reglamentus: Kurkite reglamentus, skirtus kovoti su piktnaudžiavimu giluminėmis klastotėmis.
• Skatinkite medijų raštingumą: Skatinkite medijų raštingumo švietimą, kad padėtumėte piliečiams atpažinti ir suprasti gilumines klastotes.
• Bendradarbiaukite tarptautiniu mastu: Bendradarbiaukite su kitomis šalimis, siekdami spręsti pasaulinę giluminių klastočių grėsmę.
• Remkite faktų tikrinimo iniciatyvas: Teikite paramą nepriklausomoms faktų tikrinimo organizacijoms ir iniciatyvoms.
• Organizuokite visuomenės informavimo kampanijas: Vykdykite visuomenės informavimo kampanijas, skirtas šviesti piliečius apie giluminių klastočių riziką ir kaip jas atpažinti.

Etiniai aspektai

Giluminių klastočių technologijos kūrimas ir naudojimas kelia daug svarbių etinių klausimų. Svarbu atsižvelgti į galimą giluminių klastočių poveikį asmenims, organizacijoms ir visai visuomenei.

• Privatumas: Giluminės klastotės gali būti naudojamos kuriant suklastotus asmenų vaizdo įrašus be jų sutikimo, o tai gali pažeisti jų privatumą ir padaryti jiems žalos.
• Sutikimas: Svarbu gauti asmenų sutikimą prieš naudojant jų atvaizdą giluminėje klastotėje.
• Skaidrumas: Svarbu būti skaidriems dėl giluminių klastočių technologijos naudojimo ir aiškiai nurodyti, kada medijos turinys buvo sukurtas ar modifikuotas naudojant DI.
• Atskaitomybė: Svarbu, kad asmenys ir organizacijos būtų atsakingi už piktnaudžiavimą giluminėmis klastotėmis.
• Šališkumas: Giluminių klastočių algoritmai gali išsaugoti ir sustiprinti esamus duomenų šališkumus, o tai gali lemti diskriminacinius rezultatus. Būtina spręsti šališkumo problemą apmokymo duomenyse ir algoritmuose, naudojamuose kuriant ir aptinkant gilumines klastotes.

Etikos principų laikymasis yra būtinas siekiant užtikrinti, kad giluminių klastočių technologija būtų naudojama atsakingai ir nekeltų žalos.

Giluminių klastočių aptikimo ateitis

Giluminių klastočių aptikimo sritis nuolat vystosi, nes giluminių klastočių technologija tampa vis sudėtingesnė. Mokslininkai nuolat kuria naujus ir patobulintus giluminių klastočių aptikimo metodus. Keletas pagrindinių giluminių klastočių aptikimo tendencijų:

• Patobulinti DI algoritmai: Mokslininkai kuria sudėtingesnius DI algoritmus, kurie geriau geba nustatyti gilumines klastotes.
• Daugiamodė analizė: Mokslininkai tiria daugiamodės analizės naudojimą, kuri sujungia informaciją iš skirtingų modalumų (pvz., vaizdo, garso, teksto), siekiant pagerinti giluminių klastočių aptikimo tikslumą.
• Paaiškinamas DI: Mokslininkai dirba kurdami paaiškinamo DI (XAI) metodus, kurie gali suteikti įžvalgų, kodėl DI algoritmas tam tikrą medijos turinį identifikavo kaip giluminę klastotę.
• Blokų grandinės technologija: Blokų grandinės technologija gali būti naudojama medijos turinio autentiškumui patvirtinti ir giluminių klastočių plitimui užkirsti kelią. Sukuriant neklastojamą medijos failų kilmės ir pakeitimų įrašą, blokų grandinė gali padėti užtikrinti, kad asmenys galėtų pasitikėti vartojamu turiniu.

Giluminių klastočių technologijai toliau tobulėjant, giluminių klastočių aptikimo metodai turės atitinkamai vystytis. Investuodami į mokslinius tyrimus ir plėtrą bei skatindami etikos gaires, galime stengtis sušvelninti su giluminėmis klastotėmis susijusią riziką ir užtikrinti, kad ši technologija būtų naudojama atsakingai.

Pasaulinės iniciatyvos ir ištekliai

Yra keletas pasaulinių iniciatyvų ir išteklių, padedančių asmenims ir organizacijoms daugiau sužinoti apie gilumines klastotes ir kaip jas aptikti:

• Giluminių klastočių aptikimo iššūkis (DFDC): „Facebook“, „Microsoft“ ir „Partnership on AI“ organizuotas iššūkis, skirtas skatinti giluminių klastočių aptikimo technologijų kūrimą.
• AI fondas: Organizacija, skirta atsakingam DI kūrimui ir naudojimui skatinti.
• Witness: Nepelno organizacija, mokanti žmogaus teisių gynėjus saugiai, patikimai ir etiškai naudotis vaizdo įrašais.
• Koalicija už turinio kilmę ir autentiškumą (C2PA): Iniciatyva, skirta kurti techninius standartus skaitmeninio turinio autentiškumui ir kilmei patvirtinti.
• Medijų raštingumo organizacijos: Organizacijos, tokios kaip Nacionalinė medijų raštingumo ugdymo asociacija (NAMLE), teikia išteklius ir mokymus apie medijų raštingumą, įskaitant kritinį mąstymą apie internetinį turinį.

Šie ištekliai siūlo vertingą informaciją ir įrankius, padedančius orientuotis sudėtingame sintetinių medijų kraštovaizdyje ir sušvelninti su giluminėmis klastotėmis susijusią riziką.

Išvada

Giluminės klastotės kelia didelę grėsmę asmenims, organizacijoms ir visai visuomenei. Tačiau suprasdami giluminių klastočių technologiją ir jos aptikimo metodus, galime stengtis sušvelninti šią riziką ir užtikrinti, kad ši technologija būtų naudojama atsakingai. Labai svarbu, kad asmenys būtų skeptiški medijos turinio atžvilgiu, organizacijos įdiegtų giluminių klastočių aptikimo technologijas ir mokymo programas, o vyriausybės investuotų į mokslinius tyrimus ir plėtrą bei kurtų reglamentus, skirtus piktnaudžiavimui giluminėmis klastotėmis spręsti. Dirbdami kartu, galime įveikti sintetinių medijų keliamus iššūkius ir sukurti patikimesnį ir labiau informuotą pasaulį.